KI & Bias

Dr. Thomas Camminady

Algorithm Developer @ Wahoo Fitness LLC

2023-09-01

Quiz

Ist das KI?

Ziele

Inhaltlich

Nach diesem Workshop habt ihr ein Verständnis dafür,

was KI, Algorithmen und Daten verbindet;
dass Zahlen nicht zwingend objektiv sein müssen;
was schief geht, wenn man sich keine Gedanken über Algorithmen macht;
dass KI nicht nur ein MINT Thema ist.

Ziele

Nicht inhaltlich

Ich hoffe,

dass ihr alle Spaß an diesem Workshop und der Thematik habt;
dass ich euer Interesse für die Thematik KI wecken / erhöhen kann.

Algorithmen

Randall Munroe, xkcd.com/1838, (CC BY-NC 2.5)

Klassische Algorithmen

Sortieralgorithmus

import random


def algorithmus(zahlen):
    while not ist_sortiert(zahlen):
        random.shuffle(zahlen)
    return zahlen


def ist_sortiert(zahlen):
    for i in range(len(zahlen) - 1):
        if zahlen[i] > zahlen[i + 1]:
            return False
    return True


algorithmus([5, 3, 2, 1, 4])

[1, 2, 3, 4, 5]

Und was ist dann KI?

KI = Datenbasierter Algorithmus

Datenbasierte Algorithmen

Klassifizierung von Pinguinen

Situation: Wissenschaftler_innen möchten den Pinguinbestand überwachen.

Problem

Nur geschultes Personal ist dazu in der Lage.

Klassifizierung von Pinguinen

Ausweg: Muster nutzen und erkennen

Illustrationen: Allison Horst

Daten: Gorman KB, Williams TD, Fraser WR

Klassifizierung von Pinguinen

Idee

Wir entwickeln einen Klassifizierungsalgorithmus der uns bei gegebener Schnabellänge und -tiefe sagen kann, um welchen Pinguin es sich handelt.

Vorteil: Messung ist auch für ungeschultes Personal möglich.

Training

Ausgangssituation

Training

Das Leben einfacher machen…

Training

Aufteilung in Training- und Testdaten

Training

Unsere KI: Support Vector Machine (Stützvektormaschine)

Training

Oberhalb = Adelie. Unterhalb = Gentoo.

Training

def gerade(x):
    m = (22 - 13) / (60 - 30)
    return m * (x - 30) + 13


def algorithmus(laenge, tiefe):
    if laenge > gerade(tiefe):  # Oberhalb
        return "Adelie"
    else:
        return "Gentoo"  # Unterhalb

Der Trainingsprozess liefert einen Algorithmus zur Klassifizierung von Pinguinen.

Anwendung des Algorithmus

Nur 1 Pinguin ist falsch klassifiziert.

Zusammenfassung

Klassische Algorithmen

Datenbasierte Algorithmen

Bias

Definition

Bias ≈ Voreingenommenheit / Verzerrung.
“Bias” bezeichnet eine Neigung oder Vorliebe in eine bestimmte Richtung, oft aufgrund von Vorurteilen.
Es kann sich auf Vorurteile in Daten, Entscheidungen oder Wahrnehmungen beziehen.
Nicht immer absichtlich oder bewusst.
Kann zu falschen oder ungerechten Ergebnissen führen.

Bias im Kontext von KI

Vorhersage von Verbrechen

ProPublica untersuchte die COMPAS-Software, ein Instrument zur Vorhersage des Rückfallrisikos von Straftätern in den USA.
Die Analyse ergab, dass die Software Schwarze Personen ungerechtfertigt als wahrscheinlicher zukünftige Straftäter einstufte, im Vergleich zu weißen Personen mit ähnlichen Vorstrafen.

BIas im Kontext von KI

Amazons Bewerbungsalgorithmus

Mehr Männer bei Amazon
Lebensläufe wurden auf Wörter überprüft, die häufig zu Einstellungen geführt haben.
Manche Wörter werden häufiger von Männern benutzt.
Verstärkender Kreislauf der Männer befürwortet.

Bias am Beispiel der Herzfrequenzerkennung

Herzfrequenz

Herzfrequenz ist eine wichtige Metrik in der Medizin und im Sport.
Es existieren verschiedene Arten die Herzfrequenz zu messen.

Optische Herzfrequenzerkennung

Messung der Lichtintensität

Distanz zwischen Peaks liefert Puls

Illustrationen: Csilla Timar-Fulep / Zemax

Die Realität ist etwas komplizierter…

Wir filtern das Signal

Unser Algorithmus

def algorithmus(lichtintensität, filterstärke):
    # Zuerst filtern wir das Signal
    lichtintensität = filter(lichtintensität, filterstärke)

    # Dann bestimmen wir die Abstände zwischen den Peaks
    abstände = finde_abstände_zwischen_peaks(lichtintensität)

    # Der Puls ist 60 / Abstand in Sekunden
    return 60 / abstände

Wie bestimmen wir die Filterstärke? Training!

Trainingsprozess

Mit unseren Testdaten können wir für jede Filterstärke einen mittleren Fehler bestimmen.
Finde die Filterstärke, die den mittleren Fehler (über mehrere Läufe) minimiert.

Trainingsprozess

Fehlerverteilung mit optimalen Parametern
Algorithmus ist genauer bei niedrigem Puls und gleichzeitig ungenauer bei hohem Puls

Trainingsprozess

Frauen haben tendenziell einen höheren Puls, waren im Training aber unterrepräsentiert.
Algorithmus ist also weniger genau bei Frauen.

Bias

Trainingsdatensatz war nicht ausbalanciert bzgl. der Geschlechter.
Training optimiert daher mit einem Bias für Männer.
Bis zu 30% höherer Fehler.

Problematisch bei Anwendungen in der Medizin

Insbesondere bei medizinischen Anwendungen kann ein Bias zu großen Problemen führen.

Nicht immer offensichtlich

Problem scheint hier offensichtlich, ist aber oft schwierig zu erkennen.

Bias am Beispiel der Gesichtserkennung

Von 2D zu 3D zu 784D

Illustrationen: Allison Horst

Daten: Gorman KB, Williams TD, Fraser WR

Von 2D zu 3D zu 784D

Hinzufügen von Gewicht resultiert in 3D Klassifizierungsproblem.
Statt Geraden, nun Ebenen.

Von 2D zu 3D zu 784D

MNIST Ziffernerkennung

Bilder mit 28*28=784 Pixeln.
Jeder Pixel ist eine Dimension.
Hyperebenen in Hyperräumen.
Vorteil: Kein Aufwand, jeder Pixel wird als Dimension interpretiert.

Von 2D zu 3D zu 784D

Gender Shades

Diskussion

What could go wrong?

Speech2Face

What could go wrong?

Prison Term Prediction

Was glaubt ihr: Wo haben Algorithmen Bias?

Beispiele für Algorithmen mit konkreten Problemen / Bias?
Wie äußert sich Bias in eurem Beispiel?
Welche Konsequenzen hat das Ganze für betroffenene Personen?
Was ist der mathematische Grund für Bias?
Was könnte man anders machen?

Q&A

Zeit für Fragen und Antworten

Was möchtet ihr fragen?
Was soll ich noch einmal erklären?
Was war vielleicht unklar?